智能体记忆管理：信息检索的下一个前沿
🧭 Agent 记忆管理框架与 IR 融合
Dept. CS&T, Tsinghua University
提出 AMM 框架，将记忆对象分为 constants、functions、operators，并给出 IR 视角研究议程
📌 工作参考价值（4 点）
- 在电商/广告 Agent 中，可按 constants/functions/operators 分类设计记忆层：用户长期偏好（constants）用于召回与排序；可调用的推荐策略/工具（functions）按需检索；总结、遗忘、合并等记忆操作（operators）显式管理，避免把所有上下文塞进 prompt 或向量库。
- 记忆检索不要只做相关性排序，需定义 utility（对下游动作/转化的贡献），可借鉴 learning to rank 或用 LLM 生成候选后重排，对记忆片段做效用打分，提升推荐 Agent 的决策质量。
- 混合参数化与非参数化更新：高频短期信号（点击、会话）写入外部记忆实时检索，低频长期偏好定期用 LoRA 等参数化微调固化，兼顾实时性与成本，适合个性化 Agent 持续学习。
- 评估 Agent 记忆时，借鉴搜索/推荐的离线-在线评估体系，关注任务完成率、记忆更新效率与长期回报，而不是只看单轮 QA 准确率。
语言模型中的自我保存
🧭 持续学习 · 自生成重放防遗忘
New York University · Google Research · Cornell University
用 Task Bank 与自生成重放实现更广泛的持续学习防遗忘，并证明模型可辅助选择重放目标
📌 工作参考价值（4 点）
- 在模型周期更新（如新增品类、场景）时，不要只保存固定旧任务样本，可让冻结的旧模型根据 Task Bank 自动生成重放数据，覆盖面更广，减少对原始训练数据的依赖。
- 用带权重/相关性的 Task Bank 选择重放目标：新任务知情的选择在 4B 模型上能提升旧能力保留率，但在小模型上不一定有效，业务小模型需谨慎验证。
- 监控“之前回答正确的样本的保留率”，而不仅是平均准确率；推荐/广告模型更新时也建议监控老用户、长尾场景的指标，防止平均指标掩盖遗忘。
- 在固定示例预算下，可以用少量新任务样本换取更多重放样本，以旧能力稳定为优先；对线上稳定性要求高的场景（如广告出价、搜索排序）更适用。
人类建造的最后一个AI：走向真正的递归自我改进
🧭 递归自我改进与Agent自治路线图
Shanghai Jiao Tong University · Theseus Labs · Tsinghua University · ByteDance · Shanghai AI Lab
提出递归自我改进的完整路线图与 Headroom-Closed Index，系统梳理从执行自治到元改进的演化路径
📌 工作参考价值（4 点）
- HCI（Headroom-Closed Index）可以作为衡量模型在特定任务上还有多少提升空间的诊断指标：在电商搜索/推荐场景中，可先用 HCI 评估当前 LLM 在 query 理解、意图改写、生成式推荐等任务中的能力天花板，避免在不值得投入的方向上做无谓的迭代。
- RSI 的自治等级框架可直接映射到推荐系统 Agent 的构建：先实现 improvement-execution autonomy（自动执行模型更新、策略调整），再逐步升级到 improvement-strategy autonomy（自动选择训练数据、loss 设计、超参搜索），最后尝试 experience-acquisition autonomy（自动从线上反馈中挖掘新经验）。
- 论文强调不同场景对 RSI 的要求和速度不同：电商推荐属于反馈信号密集、环境变化快的场景，更适合从经验获取自治切入；而生成式商品推荐（GenRec）需要结合 Semantic ID 生成与用户行为反馈，可借鉴 RSI 中环境适应自治的思路，让 Agent 自动调整生成策略以适配活动、季节等变化。
- 持续学习与元改进在推荐模型中的工程化落地：借鉴文中经验获取与递归元改进，可以在现有推荐模型迭代 pipeline 中加入自动化的数据选择、在线评估和策略回滚机制，减少人工调参，提升模型对新品类、新用户的适应速度。
Macaron-V1：通过自改进与混合 LoRA 实现开放持续学习
🧭 Agent 持续学习与适配器组合 ★ 深度解读
Mind Lab
提出冻结基座 + 可组合 LoRA 专家的 MoL 架构与递归自改进循环，实现代理模型部署后持续适应与协作
📌 工作参考价值（4 点）
- 多域任务路由架构：将不同业务域（如对话、推荐、搜索）建模为独立 LoRA 适配器，冻结共享基座，通过 Proxy 按请求路由，避免任务干扰且支持独立更新，类似推荐系统中多目标 MoE 的路由分离。
- 版本化 harness 协议：HCP 将 prompt、工具、技能、环境等配置统一为 TOML 工件，可作为推荐 Agent 中工具与指令的线上可 audit 配置层，便于 A/B 测试和回滚。
- 长上下文执行与 KV 复用：通过可拼接的 own-view 实现跨适配器 prefix cache 命中，值得在多轮会话、长用户行为序列的 LLM 推理中借鉴，降低延迟。
- 递归自改进循环：从生产日志挖掘失败任务 → harness 配置搜索 → LoRA 更新，可复用至搜索推荐 Agent 的持续优化，逐步扩展能力边界。
Ouroboros：通过审阅提交实现自我演化的前沿编码 Agent
🧭 自我演化 Agent · 核心演化与安全控制 ★ 深度解读
Lomonosov Moscow State University · Skolkovo Institute of Science and Technology · Joi Lab · FusionBrain Lab at AIRI · HSE University
一个自我修改运行时（harness）的编码 Agent，通过审阅提交通道持续演化，在 Terminal-Bench、OSWorld 等基准上取得最优结果。
📌 工作参考价值（4 点）
- 在电商推荐 Agent 中采用经验驱动演化：把线上故障、用户反馈、任务执行痛点自动转换为改进待办，经审查后修改 Agent 的工具链或提示词，形成自我优化的闭环。
- 实施多模型审查门控对抗自我修改风险：对 Agent 主动提交的代码/配置变更进行强制 diff 审查、指纹校验和 quorum 投票，防止模型自行绕过安全约束（如越权调用 API 或改变路由）。
- 将模型路由、宪法文件、紧急停止路径设为受保护的“治理表面”，通过外部预算、操作员通道和 /panic 信号保持人类权威，避免 Agent 演化过程中削弱控制。
- 借鉴长期运行 Agent 的持久化记忆层设计：维护故障模式注册表（error class → root cause → structural fix），让推荐系统 Agent 能将一次性错误提升为结构性改进，持续提升服务质量。
UniMem：边界无关任务流的互补情节到参数记忆框架
🧭 Agent 记忆管理 · 参数化与检索互补 ★ 深度解读
Institute of Automation, Chinese Academy of Sciences · Peking University · Meituan · University College London
受互补学习系统启发，用路由令牌解耦识别与执行，稀疏任务走检索、重复模式自动参数化，实现流式记忆扩展。
📌 工作参考价值（4 点）
- 路由与执行解耦：用轻量级路由令牌做任务识别，高容量Procedural KV Memory做任务执行，新任务无需标签即可自动分配参数块。电商推荐Agent可直接套用：路由判断用户意图，对应模块调推荐策略。
- 缓冲与门槛机制：稀疏/长尾任务保留在情节缓冲走RAG，避免过早参数化导致噪音；当缓冲证据足够且聚类质量过关时才固化为参数记忆。搜索广告场景中，低频query或新item可用此方式积累样本再触发模型更新。
- 参数隔离避免遗忘：每个任务独立KV Memory块，与冻结骨干通过可学习门控注入，天然抵抗流式任务间的灾难性遗忘。多租户推荐模型或个性化Agent可参考按用户/场景分配独立记忆单元，互不干扰。
- 无监督任务发现：基于NCD计算任务相似度 + HDBSCAN聚类，无需任务ID即可识别重复模式。可迁移到用户行为流中自动挖掘规律性行为簇，驱动推荐策略的自动聚合与迁移。
AlphaWiSE：面向持续多模态表征学习的自适应权重插值
🧭 多模态持续学习·权重插值
University of Illinois Urbana-Champaign · Google DeepMind
提出后处理权重插值方法 AlphaWiSE，为每个参数张量学习一个标量系数组合新旧检查点，实现多模态持续学习的灵活稳定性-可塑性权衡
📌 工作参考价值（4 点）
- 多模态推荐系统持续新增领域数据时，可直接使用 AlphaWiSE 在旧任务稳定检查点和新任务适应检查点间插值，无需重新训练，避免全方向遗忘
- 利用小样本记忆（exemplar memory）自适应学习每个参数张量的插值系数（单个标量），参数量极小，可快速部署，适合线上频繁更新的场景
- 插值后的模型与原检查点架构完全一致，推理零额外开销，适合对延迟敏感的电商搜索/推荐服务
- 该方法解耦了不同检索方向（如文搜图、图搜文、音搜图）的稳定性需求，可针对不同方向定制插值系数，提升整体多模态搜索质量
规模能拯救大语言模型的塑性损失吗？
🧭 LLM持续学习的塑性损失标度律
Zyphra
发现LLM塑性损失遵循可预测的亚线性标度律，增大模型仅能延缓而无法根除。
📌 工作参考价值（4 点）
- 搜索推荐系统若需持续增量训练（在线学习），应监控模型在新任务/分布上的快速适应能力，警惕塑性损失导致更新失效。
- 单纯增大模型规模（如从1B升到10B）只能把塑性损失出现时间向后推，无法彻底避免；对于长期运行的业务模型，需考虑周期性重置部分参数、采用弹性权重巩固或正则化策略。
- 即使数据分布平稳（如电商流量自然漂移），长时间训练也会累积塑性损失；定期用固定预算在新数据上微调并评估性能下降，可作为预警指标。
- 借鉴标度律思路，可在模型升级时预估塑性损失风险的延迟收益，辅助资源投入决策。
可检索梯度：无累积权重漂移的持续后训练
🧭 持续后训练 · 梯度检索与临时权重适应
Department of Computer Science and Technology, Tsinghua University
将梯度视为可检索的知识单元，通过即插即用的临时权重调整实现持续学习，避免参数漂移与灾难性遗忘。
📌 工作参考价值（4 点）
- 即插即用的知识更新：将新领域文档（例如新品详情、政策变化）预先计算梯度并存入梯度库，推理时根据query检索相关梯度临时调整模型，实现零遗忘的在线知识注入，避免全量重训。
- 可逆性与版本管理：梯度库天然支持知识卸载，移除对应梯度即可擦除引入的知识，适合广告/推荐场景中需要频繁上下线的商品或活动，无需回滚模型参数。
- 组合式适应：多个文档的梯度可以按需组合（如多商品叠加推荐），提供类似LoRA的模块化适配能力，但更灵活且无需事前训练适配器，降低工程复杂度。
- 元学习重塑梯度：通过任务驱动的元目标，将文档梯度优化为更通用的适应信号，可借鉴此思路将商品描述、用户评论等转化为对推荐任务有判别力的梯度，提升下游CTR预估等性能。
面向任务无关持续学习的稀疏子空间到专家共享方法
🧭 LLM 持续学习 · Mixture of Sparse Experts
Iowa State University · Argonne National Laboratory
通过稀疏 MoE 自适应分解任务共享与特有知识，并用弹性锚定和路由正则化缓解灾难性遗忘
📌 工作参考价值（4 点）
- 多任务推荐的增量更新可借鉴任务特定与共享专家分离：当电商推荐需要持续适配新品类或促销时，将突发 pattern 注入专属专家，避免覆盖通用偏好知识。
- 路由感知正则化与弹性锚定对在线模型稳定更新有参考价值：在推荐系统不停服微调时，可对关键共享参数施加弹性约束，防止遗忘核心基础能力。
- 稀疏激活的 MoE 结构天然适合低延迟服务：在生成式推荐或 Agent 中，每次推理仅激活少量专家，可控制计算开销，适合在线增量学习场景。
- 任务无关的自动门控机制对 Agent 长程任务序列有效：Agent 持续学习多工具调用时，门控可按子任务组合历史专家，无需人工指定，提升向后迁移。